Disagreement-Guided Weak-to-Strong Routing
分歧引导的弱到强路由
🧭 弱模型到强模型路由 · 无监督分歧信号
University of Pennsylvania
提出用模型间分歧信号做无监督弱到强路由,无需正确性标签即可在成本与准确率间权衡
📌 工作参考价值(3 点)
- 在电商搜索推荐或 Agent 工作流中,小模型常用于低延迟生成 query 改写、推荐理由或工具调用;当输出不确定时需路由到大模型。可直接借鉴:让弱模型生成多个候选(如采样多个 query/理由),再用强模型对候选打分或比较,弱模型候选分布与强模型偏好分歧大则路由,避免依赖用户反馈或人工标注。
- 多候选 + 分歧路由可作为默认路由信号:比较弱模型自身多个响应与强模型判断的一致性,无需训练正确性预测器,部署简单,特别适合开放域文本生成和 agentic 任务,能显著降低大模型调用成本。
- 实验结论表明,即使有 ground-truth 正确性标签可用于训练路由器,基于分歧的路由也能超越直接拟合正确性的方法。因此在业务中可优先采用无监督分歧信号,或将其作为特征加入有监督路由器,提升泛化能力。